Bi prepoznali, ali je posnetek narejen z umetno inteligenco?

Avstralska televizija ABC je izvedla testiranje, v katerem so štirim srednješolcem pokazali 21 kratkih videoposnetkov.

Deset je bilo resničnih, 11 pa ustvarjenih z umetno inteligenco (UI).

Naloga dijakov je bila, da so po vsakem videu povedali, ali menijo, da je posnetek resničen ali je generiran s pomočjo umetne inteligence.

Rezultati so bili precej porazni. Dijaki so v povprečju pravilno ocenili 67 odstotkov videov.

Čeprav se to zdi precej visok odstotek, pa je v resnici le malo boljši od naključja – torej če bi dijaki posnetke ocenjevali povsem naključno, tudi brez ogleda, piše na spletnih straneh televizije.

Za kar tretjino UI posnetkov so dijaki menili, da so resnični, v enakem deležu pa so za resnične posnetke menili, da so generirani s pomočjo UI.

"Težko je ločiti, kaj je res in kaj ni, če obstajajo resnični posnetki, ki delujejo neverjetno, in ponaredki, ki so narejeni, da izgledajo realistično," je dejala Sasha, ena od dijakov, ki je bila pri ugotavljanju s 70 odstotki pravilno ugotovljenih boljša od povprečja.

Kljub temu je na koncu dejala, da se pri razlikovanju resničnih in lažnih posnetkov še vedno ne počuti samozavestna.

Prispevek televizije ABC Australia o testu si lahko ogledate spodaj.

Nova orodja za še lažje ustvarjanje UI generiranih videov

V zadnjem času je OpenAI, podjetje za ChatGPT, izdalo novo verzijo svojega videogeneratorja Sora.

Poleg tega so lansirali tudi družbeno omrežje, kjer je vsebina ustvarjena izključno z AI – uporabniki lahko celo naložijo svoje obraze za ustvarjanje tako imenovanih deepfake videov.

Jeremy Carrasco, ki vodi spletno stran ShowTools.AI za prepoznavanje UI generiranih videov, opozarja, da so platforme, kot je Instagram, od izdaje Sore preplavljene s tovrstnimi vsebinami.

"Starejša AI orodja so ustvarjala vsebine, ki so bile dolgočasne ali očitno lažne. A Sora 2 ima ‘viralnost že vgrajeno’ – zna ustvariti zanimive in zabavne posnetke brez večjega truda," pravi Carrasco.

Kritike niso izostale – Sora je bila sprva precej neomejena glede avtorskih vsebin, kar so kasneje poskušali popraviti.

Precej prahu je dvignila tudi možnost ustvarjanja videov z obrazom pokojnih oseb – denimo Michael Jackson, kar je zmotilo tudi družino pokojnega Robina Williamsa, čigar hči Zelda je javno prosila, naj ji nehajo pošiljati take vsebine.

Enega od UI posnetkov, generiranih s Soro, ki kaže deepfake s podobo Michaela Jacksona, si lahko ogledate spodaj.

Problem odgovornosti in normalizacije

Carrasco ostro kritizira tehnološka podjetja, ki odgovornost za družbene posledice prelagajo na uporabnike:

"Obnašajo se, kot da je vse to neizogibno in nam celo delajo uslugo, ker nas silijo, da se s tem soočimo.

A v resnici bi bilo bolj pomembno, da bi obstajale določene ovire pri ustvarjanju zavajajočih vsebin. Trenutno so te ovire skoraj nične – in to je nevarno."

OpenAI sicer zagotavlja, da nenehno prilagajajo varnostne mehanizme, a strokovnjaki opozarjajo, da normalizacija tako imenovanih deepfakov (globokih ponaredkov) ogroža zaupanje v digitalne vsebine.

V vsakdanjem življenju ljudje nismo pozorni

Čeprav so učenci v testu vedeli, da iščejo UI ponaredke, Carrasco opozarja, da je v realnem svetu pozornost bistveno manjša:

Objave na družbenih omrežjih so namenjene sprostitvi – ne razkrivanju resnice. Ljudje se ob njih ne želijo naprezati in jih analizirati.

ABC projekt je del širše kampanje za medijsko pismenost, s katero želijo pomagati ljudem, zlasti mladim, da se bolje znajdejo v svetu, kjer umetna inteligenca hitro napreduje in lahko resno vpliva na našo zaznavo resničnosti.

Služi pa tudi kot opozorilo, da v resnici nismo pripravljeni na svet, v katerem je resničnost zamenljiva, in kjer UI z neverjetno natančnostjo ustvarja lažne podobe, ki jih težko ločimo od resničnih.

Potrebujemo več izobraževanja, jasnejšo regulacijo in predvsem – kritično razmišljanje vsakič, ko odpremo telefon.